Ex-Openai работници молят Калифорния и Делауеър АГ да блокират преобразуване на печалба на производителя на чатт

Бившите чиновници на Openai молят най-хубавите чиновници на реда в Калифорния и Делауеър да спрат компанията да измести контрола върху неговата технология за изкуствен интелект от нестопански благотворителна организация към облагата. AI, който превъзхожда хората, само че към този момент не е виновен за публичната си задача да отбрани тази технология от причиняване на тежки вреди.

„ В последна сметка се тормозя кой има и управлява тази технология, откакто е основана “, сподели Пейдж Хедли, някогашен консултант по политика и нравственос в Openai, в изявление с свързаната с нея преса. Хедли и девет други някогашни чиновници на Openai изпратиха писмо тази седмица до двамата държавни прокурори.

Коалицията моли генералния прокурор на Калифорния Роб Бонта и генералния прокурор на Делауеър Кати Дженингс, двамата демократи, да употребяват престижа си, с цел да защитят благотворителната цел на Openai и да блокират плануваното му преструктуриране. Openai е включен в Делауеър и работи отвън Сан Франциско.

Openai сподели в отговор, че „ всевъзможни промени в съществуващата ни конструкция ще бъдат в услуга на гарантирането на по -широката общност да се възползват от AI “. В него се споделя, че неговата облага ще бъде корпорация за социална изгода, сходна на други AI лаборатории като XAI на Anthropic и Tech Billionaire Elon Musk, като се изключи това, че Openai към момента ще резервира нестопанска ръка.

„ Тази конструкция ще продължи да подсигурява, че защото облагата успее и пораства, по този начин и нестопанската цел, която ни разрешава да реализираме задачата “, се споделя в изказване на компанията.

Писмото е втората петиция на държавните чиновници този месец. Последният пристигна от група водачи на труда и организации с нестопанска цел, фокусирани върху отбраната на милиардите долари от благотворителни активи на Openai.

Дженингс сподели предходната есен, че „ ще прегледа всяка такава транзакция, с цел да подсигурява, че ползите на обществеността са съответно предпазени “. Офисът на Бонта потърси повече информация от Openai в края на предходната година, само че сподели, че не може да разяснява, даже да удостовери или отхвърли дали тя проверява.

съоснователите на Openai, в това число актуалният изпълнителен шеф Сам Алтман и Мъск, в началото го стартираха като нестопанска изследователска лаборатория за задача за безвредно създаване на това, което е известно като неестествен обща просветеност или AGI, в интерес на човечеството. Близо десетилетие по-късно Openai регистрира пазарната си стойност като 300 милиарда $ и брои 400 милиона седмични консуматори на Chatgpt, своя водещ артикул.

Openai към този момент има дъщерно сдружение с облага, само че е изправен пред редица провокации при конвертирането на главната си конструкция на ръководство. Единият е дело от Мъск, който упреква компанията и Алтман, че е предал основополагащите правила, които са предиздвикали изпълнителния шеф на Tesla да влага в благотворителната организация.

While some of the signatories of this week’s letter support Musk’s lawsuit, Hedley said others are “understandably cynical ” because Musk also runs his own rival AI company.

The signatories include two Nobel-winning economists, Oliver Hart and Joseph Stiglitz, as well as AI pioneers and computer scientists Geoffrey Hinton, who won last year’s Nobel Prize по физика и Стюарт Ръсел.

„ Харесва ми задачата на Openai да„ подсигурява, че изкуствената обща разследваща информация е от изгода за цялото човечество “и бих желал те да изпълнят тази задача, вместо да обогатят своите вложители “, се споделя в изказване в сряда. „ Щастлив съм, че има старания да се опълчва на задачата си, която не включва Елон Мъск. “

Конфликтите за задачата на Openai от дълго време са къмали в Института в Сан Франциско, допринасяйки за овакантяване на Мъск през 2018 година, краткотрайния осезателен през 2023 година и други тръгване за висок профил.

Хедли, юрист по образование, работи за Openai през 2017 и 2018 година, време, когато нестопанската организация към момента се движи по най -добрите способи за шеф на технологията, която искаше да построи. Наскоро през 2023 година Алтман съобщи, че Advanced AI дава обещание, само че също по този начин предизвести за изключителни опасности, от фрапантни катастрофи до обществени спирания.

През последните години обаче Хедли съобщи, че следи угриженост за Openai, превзет от триумфа на Chatgpt, от ден на ден взема решение Корнс за тестване на сигурността и бързане на новите артикули, с цел да бъде все по -напред от съперниците на бизнеса.

„ Разходите за тези решения ще продължат да нарастват, защото технологията става по -мощна “, сподели той. “I think that in the new structure that OpenAI wants, the incentives to rush to make those decisions will go up and there will no longer be anybody really who can tell them not to, tell them this is not OK. ”

Software engineer Anish Tondwalkar, a former member of OpenAI’s technical team until last year, said an important assurance in OpenAI’s nonprofit charter is a “stop-and-assist clause ” that directs OpenAI to stand down and help Ако друга организация наближава постигането на по-добър от човешкия AI.

„ Ако на Openai бъде разрешено да стане облага, тези защитни ограничения и задължението на Openai към обществеността може да изчезне за една нощ “, съобщи Тондвалкар в изказване в сряда.

Another former worker who signed the letter puts it more bluntly.

“OpenAI may one day build technology that could get us all killed, ” said Nisan Stiennon, an AI engineer who worked at OpenAI from 2018 to 2020. “It is to OpenAI’s credit that it’s controlled by a nonprofit with a duty to humanity. This duty precludes giving up that Контрол. ”

___

Асошиейтед прес и OpenAI имат съглашение за лицензиране и технологии, което разрешава достъп на OpenAI до част от текстовите архиви на AP.